AI正在讓制造病毒更容易大佬罕見聯名上書

2026-06-09 | 來源: MIT科技評論 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

一直以來，OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis、Anthropic 的 Dario Amodei，這三家頂級 AI 公司的負責人很少在同一件事情上站在一起。但是他們最近聯合簽署了一封寫給美國國會的信，要求立法強制合成 DNA 和 RNA 的公司對客戶訂單開展安全篩查。

信裡說 AI 正在快速進步，曾經那些能夠阻止壞人獲得生物武器的知識門檻有可能被大幅削弱。事實上，2017 年就有加拿大研究人員花 10 萬美元從郵購渠道買到了 DNA 片段，並以一己之力拼出了已經滅絕的馬痘病毒，而同樣的方法完全可以用於制造致命的天花病毒。

合成 DNA 由來已久，從 20 世紀 50 年代科學家首次成功合成 DNA 以來，這個過程早已高度自動化。全球有幾十家公司使用商用合成儀來打印定制基因序列，然後賣給科研機構、藥廠和診斷實驗室，一般來說合法客戶會用它來開發疫苗和實現生物技術突破。

問題在於不是每一家供應商都會仔細審核客戶身份，也不是每一家供應商都會檢查訂單裡的基因片段有沒有危險。雖然有的供應商只賣給合格的研究機構，但也有人根本不管買家是誰以及要買什麼。這時那些心懷不軌的人，完全可以混進去下單。

AI 的發展讓這件事變得更麻煩了，以前壞人想做生物武器缺的主要是知識。因為你得知道哪些基因片段組合起來能夠產生毒素，還得知道如何把它們組裝成一個具備功能的病毒，以前這些知識的門檻很高。AI 則降低了這一門檻，它會把分散在論文、數據庫、專利裡的零散信息拼在一起，直接告訴不法分子去哪裡可以找到不被篩查的供應商，甚至教不法分子通過修改訂單來讓篩查軟件檢測不到。

美國斯坦福大學的微生物學家兼生物安全專家 David Relman 也參與了這封信的簽署，他說 AI 能讓使用者快速找到那些不做篩查的供應商，還能告訴使用者如何改變訂單的性質，這樣一來即使是那些做篩查的公司也更難發現一個人想做什麼。

篩查技術本身也存在不足，去年微軟研究人員發表了一項論文，他們使用 AI 蛋白質設計工具生成了很多存在潛在危險的基因序列，然而這些序列竟然成功繞過了多家公司的篩查軟件。這是因為 AI 會推薦和已知危險蛋白質結構相似的新序列，而現有篩查工具完全沒見過這些新東西。

罕見!美國隊世界杯首戰門票滯銷,特朗普都嫌貴

為何越來越多年輕人患癌症?科學家正在拼復雜拼圖

章澤天陪10歲女兒騎行,罕見同框,特別溫馨!

早期篩查軟件主要對照已知那些的危險序列清單，這就導致壞人稍微改一下序列的排列方式就有可能蒙混過關。事實上，這個問題在學術圈已經討論了很多年，但是一直沒有形成具有法律約束力的規則。

說回這次聯名信，其組織方是兩個科技政策智庫，在特點上一個偏向進步派、一個偏向自由意志派，其實這兩個陣營在很多問題上都曾吵得不可開交，但卻在生物安全這件事上罕見地達成了一致。

除了開頭那三位大佬，簽署人還包括微軟 AI 負責人 Mustafa Suleyman、Meta 首席 AI 官 Alexandr Wang，以及 Twist Bioscience 和 Ansa Biotechnologies 等合成基因公司的負責人。

另據悉，川普政府上台之後撤銷了拜登時期的一項行政令，那項行政令要求受聯邦資助的科學家和公司只能從進行訂單篩查的供應商那裡購買合成基因。

去年，白宮表示會推出自己的篩查指南，然而至今沒有發布替換政策。那些支持立法的人們認為，只有國會通過正式法律，才能讓所有在美國運營的合成 DNA 供應商都來遵守統一的篩查標准，不管他們是否收到聯邦資金資助。今年早些時候，美國參議院也已經提出一項跨黨派法案，不過還沒有獲得足夠的推進動力。